翻译 | 如何构建信任是AI时代设计的挑战之一

引言：智能助手等AI产品逐渐进入大众生活，它们本可以给我们的生活带来诸多方便。但实际情况却是：用户并不敢完全信任AI产品。那么，人类和AI之间的信任关系是什么样的？本文作者通过三个故事，阐述了信任的组成部分，帮助我们了解信任原则如何应用到人类和AI的关系中。

导读

01 不信任-不接受

02 信任的组成部分    

▪︎  故事1：能力

▪︎  故事2：真实和诚恳

▪︎  故事3：可靠

03 结语

智能助手可能会让我们的生活更轻松。但，为什么很多人仅把亚马逊Alexa（译者注：亚马逊推出的语音助手）作为厨房计时器使用呢？和他们一样，我当初充满期望的买了Alexa，想尝试我的第一款个人AI助手。然而，一年后的今天， Alexa沦为了我儿子的媒体播放器，而我们也经常把它用作厨房定时器。

那么，为什么Alexa，Siri以及Google Home，并未真正成为我的数字助理呢？是因为它们缺乏完成复杂任务的技能，还是我们对它们的智能水平期待过高？好像都不是。

而是，在与数字助理互动时，我们总感觉不太对劲。比如：

▪︎  模拟人类对话的数字助理在面对一些问题（比如“你好，复活节彩蛋”）时回答机智，但是对一些简单问题的回答并不如人意。

▪︎  数字助理不理解我们，只会让我们不知所措。它没有给我们任何的选择空间，或备选方案。我们所能做的只是重复发问，检查app或搜索网络。

▪︎  数字助理在我们需要时没有反应，但在家庭聚餐期间又会随意介入打断对话。

现在，假设我在考虑让我的数字助理安排我的工作日程。鉴于以往经历，我有以下疑虑：如果我有一个重要会议，它能否及时提醒我？当我跟别人说话时，它是否会打断并把商业机密告知在场的所有人？它如何判断会议是否重要？如果我家里的Wi-Fi有问题，它又会怎么样？

对我来说，问题的关键是，我能否信任数字助理来执行对我来说很重要的任务。这种担忧远远超出了我对个人数据使用的忧虑。

不信任-不接受

如果连日程管理都不放心交给AI，作为一个设计师，我又如何能放心的使用更为复杂的智能企业系统呢？

显然，我们要减少用户对智能系统的恐惧和担忧，让用户与智能系统协同工作。如果没有信任，人们将很难使用智能系统，这可能会危及人机协作的未来。因此，我们认为信任是AI产品良好用户体验的核心。

信任的组成部分

英国哲学家奥诺拉·奥尼尔（Onora O'Neil）在她的演讲《我们误解了信任》中指出了信任的三个组成部分：能力，诚实和可靠。让我们从用户体验的视角来看这三点。

想象一个拥有会话式用户界面的数字助理，它可以在不同的业务场景下学习并提供合理的解决方案。用户和数字助理之间的信任关系在实际中是什么样的？接下来的三个故事，可能会给你一些启发。

◾故事1：能力

Paul是一名材料管理员，负责确保生产所需的所有组件无误。他正尝试使用一款新的数字助理，但是还不太信任它。有一天，Paul收到材料短缺的警告，这种情况他之前从未遇到过。基于过去类似案例，他的数字助理有足够的信心提供可行的解决方案，并且可以用案例来验证提案的可行性。

通过探索类似的案例，Paul：

A）理解提案背后的逻辑，并且 

B）从他的经验可以确认这种逻辑是正确的。

总的来说，他确信该系统有足够的能力找到相关信息并提出合理的解决方案。如果能够持续且稳定地体验到这种能力，Paul就会将简单的决策交给他的数字助理，并且采用更高水平的自动化操作。

◾故事2：真实和诚恳

Mike是航空航天业的一名制造工程师，他的任务之一是处理由客户、质量保证或产品设计导致的生产计划的不断变化。他对自己的数字助理已经很熟悉了，并且会在简单的情况下采纳它的提议。甚至在某些情况下，还会主动向他的数字助理寻求建议。但是，如果数字助理没有足够的信息，无法提出合理的建议怎么办？

我们希望数字助理不要假装“聪明”，而是以真实和诚恳的方式暴露其自身能力的局限性。它通过查询相关问题，最终与用户一起找到解决方案。

◾故事3：可靠

最后一个故事是关于服务工程师Sarah的。Sarah收到公司某处机器人设备问题的警报。可她的数字助理无法为她提供具体的解决指导方案。这时候让数字助理回应“我不知道”吗？还不到时候。

正如我们从上一个故事中学到的那样，对用户“坦率直接”是一项重要技能，但我们不应止步于此。我们的数字助理不应该遇到第一道障碍就放弃。这时候，它可以不再搜索类似的问题，而是调整标准搜索相关专家。这样一来，即使数字助理无法提出具体的解决方案，它也能帮助Sarah与可能提供帮助的人取得联系。换句话说，Sarah可以依靠她的数字助理穷尽所有可能方案，并尽可能接近最终的解决方案。

结语

希望这些故事可以帮您了解信任原则如何应用到人类和AI的关系中。当然，还有关于人类信任的其它定义以及更多需要探索的内容。例如，信任程度如何随之前的建议被成功采纳而变化？或者，当信任感提高时，我们是否应该调整用户界面，提供更多的自动化操作和更少的解释？

请记住：如果人们不信任AI系统，就不会使用它们。如果不使用，我们将失去建立人工智能系统的机会，而这些系统可以增强而非取代人类的能力。除此之外还有一种选择，就是人工智能将不受人类的控制。而这正是我们想要避免的，不是吗？

原文作者：Vladimir Shapiro，是一位用户体验设计师

编译：AIID非正式编译组

原文链接：https://medium.com/sap-design/ux-for-ai-trust-as-a-design-challenge-62044e22c4ec

版权声明：本文在不改变作者原意的情况下，做了删减和编排，版权属原作者所有。本文仅为翻译，不代表本院观点。